LLM-as-a-Verifier: A General-Purpose Verification Framework
LLM作为验证器:通用细粒度验证框架
🧭 Agent验证与测试时扩展 ★ 深度解读
Stanford University · UC Berkeley · NVIDIA Research
用token logits期望代替离散评分,实现连续验证并支持评分粒度、重复、分解三维扩展,跨域SOTA
📌 工作参考价值(4 点)
- 连续评分替代离散打分:提取评分token完整logits分布求期望,消除离散评委的高平局率(27%→0%),可迁移到任何需LLM打分排序的场景(广告/商品质量评估),显著提升区分度。
- 三维验证扩展:通过评分粒度(1→20 tokens)、重复评估(1→16次)、标准分解(单标准→多标准Ensemble),验证准确率从73%提升至78%,工程中可按成本预算灵活拼接,平衡精度与延迟。
- 成本高效候选选择:概率枢轴锦标赛(PPT)算法,仅需𝒪(Nk²)次比较(k≪N),利用环形消除位置偏置并集中预算于前k候选,适用于大规模召回后的精排或生成式推荐item pool筛选。
- 验证分数作为稠密RL奖励:将连续验证信号作为中间过程奖励,显著提升off-policy SAC(约1.8×样本效率)和on-policy GRPO(1.1×效率)的训练速度与最终成功率,可直接用于推荐策略或聊天Agent的强化学习优化,无需手工设计奖励函数。